New York Times | 2024-03-01 | 20:15:29

Его, страх и пари: Как ИИ Fuse Was Lit

Elon Musk отпразнува своя 44-ти рожден ден през юли 2015 година на тридневно празненство, проведено от брачната половинка му в калифорнийски винен курорт, посипан с хижи. Беше единствено семейство и другари, с деца, които се състезаваха към първокласния парцел в Напа Вали.

Това беше години преди Twitter да стане X и Tesla да има печеливша година. Г-н Мъск и брачната половинка му Талула Райли – актриса, която изигра хубав, само че рисков робот в научно-фантастичния сериал на HBO „ Westworld “ – бяха на една година от хвърлянето на кърпата на втория си брак. Лари Пейдж, посетител на празненството, към момента беше основен изпълнителен шеф на Гугъл. А изкуственият разсъдък бе пронизал публичното схващане единствено преди няколко години, когато беше употребен за идентифициране на котки в YouTube — с 16 % акуратност.

A.I. беше огромната тематика на диалог, когато господин Мъск и господин Пейдж седнаха до огнище до плувен басейн след вечеря първата вечер. Двамата милиардери бяха другари от повече от десетилетие и господин Мъск от време на време се майтапеше, че понякога се блъскаше на дивана на господин Пейдж след нощ, играна на видео игри.

Но тонът през онази ясна нощ скоро стана противоречив, до момента в който двамата спореха дали изкуственият разсъдък в последна сметка ще издигне човечеството или ще го унищожи.

извънредно заболяване на гласните му струни, разказа шушукайки визията си за цифрова химера. Хората в последна сметка ще се слеят с изкуствено интелигентни машини, сподели той. Един ден ще има доста типове просветеност, състезаващи се за запаси и най-хубавият ще завоюва.

Ако това се случи, сподели господин Мъск, ние сме обречени. Машините ще унищожат човечеството.

С внезапно отчаяние господин Пейдж настоя, че неговата химера би трябвало да бъде преследвана. Накрая той назова господин Мъск „ експерт “, човек, който избира хората пред цифровите форми на живот на бъдещето.

Тази засегнатост, сподели господин Мъск по-късно, беше „ последната капка. ”

Мнозина в тълпата изглеждаха шокирани, въпреки и развеселени, до момента в който се разпръсваха за нощта, и смятаха, че това е просто още един от тези езотерични диспути, които постоянно избухват на празненства в Силициевата котловина.

Но осем години по-късно разногласието сред двамата мъже наподобява оракулски. Въпросът дали изкуственият разсъдък ще издигне света или ще го унищожи – или най-малкото ще нанесе съществени вреди – сложи началото на продължаващ спор измежду създателите на Силициевата котловина, потребителите на чатботове, учените, законодателите и регулаторите за това дали технологията би трябвало да бъде следена или освободена.

Този спор изправи някои от най-богатите хора в света един против различен: господин Мъск, господин Пейдж, Марк Зукърбърг от Meta, софтуерният вложител Питър Тийл, Сатя Надела на Microsoft и Сам Алтман от OpenAI. Всички са се борили за част от бизнеса — който един ден може да коства трилиони долари — и силата да го оформят.

пробваха се да изтласкат господин Алтман, тъй като имаха вяра, че към този момент не могат да му се доверят създаване на A.I. което би било от изгода за човечеството. В продължение на пет безредни дни OpenAI изглеждаше по този начин, като че ли щеше да се разпадне, до момента в който бордът — притиснат от великански вложители и чиновници, които заплашваха да последват господин Алтман през вратата — отстъпи.

Драмата в OpenAI даде на света за първи път взор към горчивите вражди сред тези, които ще дефинират бъдещето на ИИ.

Но години преди OpenAI да се срине, беше малко рекламирано, само че грубо съревнование в Силиконовата котловина за надзор върху технологията, която в този момент бързо прекроява света, от това по какъв начин се образоват децата до това по какъв начин се водят войните. New York Times беседва с повече от 80 ръководители, учени и бизнесмени, в това число двама души, които участваха на празненството за рождения ден на господин Мъск през 2015 година, с цел да опише тази история за упоритост, боязън и пари.

Раждането на DeepMind

Пет години преди празненството в Напа Вали и две преди пробива на котките в YouTube, Демис Хасабис, a 34-годишният невролог влезе на коктейл в къщата на Питър Тийл в Сан Франциско и осъзна, че е блъснал нечистотия. Във всекидневната на господин Тийл, с аспект към градския Дворец на изящните изкуства и лебедово езерце, имаше шахматна дъска. Д-р Хасабис в миналото беше вторият най-хубав състезател в света в категорията под 14 години.

„ Подготвях се за тази среща в продължение на една година “, доктор. Хасабис сподели. „ Мислех, че това ще бъде моята неповторима кукичка: знаех, че той обича шаха. “

Рационалисти или, в по-късните години, ефикасни алтруисти.

Те имаха вяра че А.И. биха могли да намерят лек за рак или да разрешат изменението на климата, само че те се притесняваха, че A.I. ботовете могат да вършат неща, които техните основатели не са планували. Ако машините станат по-интелигентни от хората, настояват рационалистите, машините могат да се извърнат против своите основатели.

Mr. Тийл беше станал извънредно богат посредством ранна инвестиция във Фейсбук и посредством работата си с господин Мъск в ранните дни на PayPal. Той беше развил обаяние от сингулярността, троп на научната фантастика, който разказва момента, в който интелигентните технологии към този момент не могат да бъдат следени от човечеството.

С финансиране от господин Тийл, господин Юдковски беше разширил своя ИИ. лаборатория и сътвори годишна конференция за сингулярността. Преди години един от двамата сътрудници на доктор Хасабис се срещна с господин Юдковски и той им откри места за изявление на конференцията, гарантирайки, че ще бъдат поканени на празненството на господин Тийл.

невронни мрежи, комплицирани логаритми, основани в изображение на човешкия мозък. Невронната мрежа е всъщност гигантска математическа система, която прекарва дни, седмици или даже месеци в идентифициране на модели в огромни количества цифрови данни. Първоначално създадени през 50-те години на предишния век, тези системи могат да се научат да се оправят сами със задания. След като проучиха имена и адреси, надраскани върху стотици пликове, да вземем за пример, те можеха да четат ръкописен текст.

DeepMind доразви концепцията. Той построи система, която може да се научи да играе типичен игри на Atari като Space Invaders, Pong и Breakout, с цел да илюстрира какво е допустимо.

разпознава нормални обекти като цветя, кучета и коли.

Учените бяха сюрпризирани от точността на технологията, основана от доктор Хинтън и неговите възпитаници. Един, който обърна особено внимание, беше Ю Кай, ИИ. откривател, който е срещнал доктор Хинтън на изследователска конференция и неотдавна е почнал работа за Baidu, гигантската китайска интернет компания. Baidu предложи на доктор Хинтън и неговите възпитаници 12 милиона $, с цел да се причислят към компанията в Пекин, съгласно трима души, осведомени с офертата.

Dr. Хинтън отхвърли на Baidu, само че парите привлякоха вниманието му.

Образованият в Кеймбридж английски бежанец е прекарал по-голямата част от кариерата си в университетските среди, като се изключи инцидентни престой в Microsoft и Гугъл, и не беше изключително воден от парите. Но той имаше невродивергентно дете и парите щяха да значат финансова сигурност.

„ Не знаехме какъв брой костваме “, сподели доктор Хинтън. Той се съветва с юристи и специалисти по придобиванията и излезе с проект: „ Ще организираме търг и ще се продадем “. Търгът ще се организира по време на годишен A.I. конференция в хотела и казиното Harrah’s на езерото Тахо.

победете един от най-хубавите играчи в света в античната игра Го. Играта, излъчена по интернет, беше гледана от 200 милиона души по целия свят. Повечето откриватели са приели, че A.I. имаха потребност от още 10 години, с цел да съберат изобретателността да създадат това.

A.I. работа в Tesla. През февруари 2018 година той разгласи напускането си пред личния състав на OpenAI на последния етаж на офисите на започващата компания в преустроена фабрика за камиони, споделиха трима души, участвали на срещата. Когато сподели, че OpenAI би трябвало да се движи по-бързо, един откривател отвърна на срещата, че господин Мъск е необмислен.

господин. Мъск назова откривателя „ магар “ и изхвърча, отнасяйки дълбоките си джобове със себе си.

OpenAI ненадейно се нуждаеше от ново финансиране и небрежно. Г-н Алтман отлетя до Sun Valley за конференция и се натъкна на Сатя Надела, основен изпълнителен шеф на Microsoft. Връзката изглеждаше естествена. Г-н Алтман познаваше основния софтуерен шеф на Microsoft, Кевин Скот. Microsoft беше купил LinkedIn от господин Хофман, член на борда на OpenAI. Г-н Надела сподели на господин Скот да го направи. Сделката завърши през 2019 година

Mr. Altman и OpenAI бяха основали компания с облага в границите на първичната организация с нестопанска цел, имаха 1 милиард $ пресен капитал и Microsoft имаше нов метод да вгради изкуствен интелект в своята голяма услуга за облачни калкулации.

Не всички в OpenAI бяха удовлетворени.

Дарио Амодей, откривател с връзки с общността на ефикасните алтруисти, беше разполагаем в хотел Rosewood, когато OpenAI е роден. Д-р Амодей, който безпределно въртеше къдриците си сред пръстите си, до момента в който говореше, ръководеше напъните на лабораторията за създаване на невронна мрежа, наречена огромен езиков модел, който можеше да се учи от големи количества дигитален текст. Чрез анализиране на безчет публикации в Wikipedia, цифрови книги и табла за известия, той може самичък да генерира текст. Имаше и неприятния табиет да си измисля нещата. Наричаше се GPT-3 и беше пуснат през лятото на 2020 година

Изследователи в OpenAI, Гугъл и други компании смятаха, че тази бързо подобряваща се технология може да бъде път към A.G.I.

Но доктор Амодей не беше удовлетворен от договорката с Microsoft, тъй като смяташе, че тя води OpenAI в в действителност комерсиална посока. Той и други откриватели отидоха до борда, с цел да се опитат да изтласкат господин Алтман, съгласно петима души, осведомени с въпроса. След като не съумяха, си потеглиха. Подобно на създателите на DeepMind преди тях, те се притесняваха, че новите им корпоративни господари ще предпочетат комерсиалните ползи пред сигурността.

През 2021 година групата от към 15 инженери и учени сътвори нова лаборатория наименуван антропичен. Планът беше да се построи A.I. метода, по който ефикасните алтруисти смятаха, че би трябвало да се направи – с доста непоколебим надзор.

„ Нямаше опит да се отстрани Сам Алтман от OpenAI от съоснователите на Anthropic, “ сподели говорителката на Anthropic, Сали Олдъс. „ Самите съоснователи стигнаха до заключението, че желаят да изоставен OpenAI, с цел да основат лична компания, оповестиха това на управлението на OpenAI и в продължение на няколко седмици преговаряха за излизане при взаимно допустими условия. “

Anthropic одобри инвестиция от $4 милиарда от Amazon и още $2 милиарда от Гугъл две години по-късно.